ChatGPT prosil za prehranski nasvet in s halucinacijami pristal v bolnišnici

Ljudje vse bolj pogosto komunicirajo z umetno inteligenco, vsake toliko pa se v javnosti pojavijo primeri, ki pričajo o tem, da je pogovor s klepetalnikom lahko tudi nevaren, včasih celo smrtonosen.

V znanstveni reviji American College of Physicians Journals so objavili članek o moškem, ki je po tem, ko je za nasvet glede prehrane prosil ChatGPT, razvil bromizem.

V zgodnjih devetdesetih letih prejšnjega stoletja so bile bromidne soli prisotne v številnih zdravilih brez recepta za zdravljenje nespečnosti, histerije in tesnobe. Vendar pa lahko zaužitje prevelike količine bromida povzroči nevropsihiatrične in dermatološke simptome, poroča The Independent.

Moški, ki je pristal v bolnišnici, je v prvih 24 urah hospitalizacije izkazoval povečano paranojo ter slušne in vidne halucinacije. "Opazili so, da je bil zelo žejen, a paranoičen glede vode, ki so mu jo ponudili," je zapisano v poročilu znanstvenega članka.

Dali so ga na infuzijo in mu dodajali elektrolite, ko je postal stabilen, pa so ga sprejeli na oddelek za psihiatrijo. Ko se je njegovo stanje izboljšalo, je zdravnikom povedal še za nekatere druge simptome: novonastale akne na obrazu in češnjevi angiomi. To je še dodatno nakazovalo na bromizem.

Prebral je, da ima sol lahko negativne učinke za zdravje

Zdravnikom je nato zaupal, da je zadnje tri mesece namesto kuhinjske soli oziroma natrijevega klorida uporabljal natrijev bromid, saj je prebral nekaj člankov o negativnih učinkih kuhinjske soli na zdravje.

V poročilu je zapisano, da je moški na fakulteti študiral nutricistiko in se odločil, da bo poskusil iz prehrane izločiti natrijev klorid. Po posvetovanju s ChatGPT ga je nadomestil z natrijevim bromidom, ki ga je dobil na internetu. Strokovnjaki sicer sklepajo, da mu je klepetalnik zamenjavo z bromidom priporočil za druge namene, denimo čiščenje.

Po treh tednih se je pozdravil in so ga odpustili iz bolnišnice.

"Pomembno je upoštevati, da lahko ChatGPT in drugi sistemi umetne inteligence ustvarjajo znanstvene netočnosti, nimajo možnosti kritične razprave o rezultatih in na koncu spodbujajo širjenje dezinformacij," so opozorili avtorji poročila.

Tudi sam Open AI, razvijalec ChatGPT, v svojih pogojih uporabe priznava, da izhodni podatki klepetalnega robota "morda niso vedno točni". Poleg tega je izrecno navedeno, da njihove storitve niso namenjene uporabi pri diagnosticiranju ali zdravljenju kakršnegakoli zdravstvenega stanja".